对智能的信念
❦
我并不知道加里·卡斯帕罗夫（Garry Kasparov）在国际象棋比赛中会如何走棋。那么，我所相信的「卡斯帕罗夫是一位极其聪明的国际象棋手」，这一信念的经验内容究竟是什么？具体来说，这一信念让我预期获得怎样的现实世界体验？还是说，这只是一种巧妙伪装过的完全无知呢？
为了进一步阐明这一困境，假设卡斯帕罗夫与某位 G 先生对弈。这位 G 先生不过是个国际象棋特级大师，以他的实力不可能获得世界冠军。但我自身的棋艺水平实在太低，根本分辨不出这两种棋力层级之间有什么差别。当我想要猜卡斯帕罗夫或 G 先生下一步的走法时，我唯一能做的，就是用自己贫乏的象棋知识去猜那「最佳着法」。于是，在任何特定棋局中，我都会对他们二位的走法做出完全相同的预测。既然如此，那么我所相信的「卡斯帕罗夫比 G 先生更强」，这一信念的经验内容究竟是什么呢？
这一信念的经验内容，是一个可检验且可证伪的预测：最终的棋局将落在「卡斯帕罗夫获胜」的局面类别，而不是「和棋」或「G 先生获胜」这两类之中。（这里把认输也算作合规走法，它会导致棋局被归类为「失败」。）我认为卡斯帕罗夫「更强」到什么程度，体现在我把多少概率质量集中到「卡斯帕罗夫获胜」，而不是「和棋」与「G 先生获胜」的结果类别上。由于这些类别对应着由所有可能的棋局所构成的庞大空间，从这个角度来看，它们是极其模糊的——但「卡斯帕罗夫获胜」确实比最大熵更具体，因为它可以被大量棋局明确证伪。
我之所以能预测卡斯帕罗夫的比赛结果，是因为我知道并理解卡斯帕罗夫的目标。在棋盘的方寸之间，我清楚卡斯帕罗夫的动机——我知道他的成功标准、他的效用函数、他作为一个「优化过程」所追逐的目标。我知道卡斯帕罗夫最终想要把未来引向何方，并且我相信他有足够的能力可以实现这一点，尽管我对他如何实现几乎一无所知。
设想我来到一座遥远的城市，当地的朋友自愿开车送我去机场。我对这片区域并不熟悉，因此每当朋友快开到一个路口时，我都不知道他会左转、右转，还是直行。就算是在具体的某个路口，我也无法预测朋友会怎么走，就更不用说提前预测整个行程的转弯序列了。
但我仍能预测朋友那些不可预知的行动最终的结果：我们会到达机场。即使朋友家在城里的另一个位置，导致路上的转弯序列完全不同，我也能同样自信地预测我们会到达机场。我甚至可以在上车之前就早早地预料到这一点。我的航班很快就要起飞，时间不容浪费；如果我不能有把握地预测汽车会沿着一条不可预知的路径抵达机场，我一开始就不会上车。
从科学的角度看，这难道不是一种非同寻常的处境吗？我无法预测一个过程的任何中间步骤，却能够预测这个过程的结果。
这怎么可能呢？通常来说，人们做预测时会从当下的情景开始，想象它如何随着时间向前推演。如果你想要一个精确的太阳系模型，一个能够将行星摄动因素考虑在内的模型，你就必须从一个包含所有主要天体的模型开始，让它一步一步地随时间向前运行。
较简单的问题有时存在闭式解，也就是在任意时间 T 处计算未来状况所需的工作量是恒定的，而与 T 无关。比如，一枚硬币放在桌上，每过一分钟就翻面一次。硬币起初是正面朝上，问一百分钟后哪面朝上？显然，你并不是通过在脑海中逐步想象中间那一百步来得出答案的。你使用了一个能够预测结果的闭式解，而它同样也能用来预测任何一个中间步骤。
但在朋友开车送我去机场的场景中，我却能用一种奇特的模型成功预测结果，而这个模型根本无法用来预测任何中间步骤。这模型甚至不需要我输入初始条件——我根本没必要知道我们是从城里的哪个地方出发的！
我确实需要对我朋友有一定的了解。首先，我必须知道，朋友是希望我能赶上航班的。其次，我也必须相信，朋友足够擅长规划，且（只要他愿意就）能够顺利地送我到机场。这些都是我朋友的初始状态的属性——正是这些属性让我能预测最终目的地，哪怕我预测不了途中的任何一次转弯。
此外，我还必须相信，朋友对这座城市足够熟悉，能够顺利完成驾驶。这可以看作朋友与城市之间的一种关系，因此是两者共同的属性。但这也是一种极其抽象的属性，它既不需要我掌握关于这座城市的任何具体的知识，也不需要我具体知道朋友对这座城市究竟有多了解。
正是这些非同寻常的情形，将我们置于如此奇异的认知处境。这就是我看待自己毕生探索的课题的一种视角。而在某种意义上，我的工作可以看作是在厘清我们所能掌握的那种奇特而抽象的知识的具体形式；借由这种知识，即便对具体的行动一无所知，我们也能有理有据地知道其结果。
若要全面而普遍地描述这种非同寻常的情形，「智能」一词便显得过于狭隘。我更倾向于称之为「优化过程」。例如，在研究生物的自然选择时，也会发生类似的情景；我们无法预知下一个被观测到的生物会呈现出怎样的具体形态。
然而，我专攻的领域正是这类被称为「智能」的优化过程；更确切地说，是一种特定类型的智能，即「友好型人工智能」（Friendly Artificial Intelligence）。对于它，我希望自己能获得尤其精确的抽象知识。